ARM AGI introduce nuevos niveles de densidad por vatio, reafirmando a la CPU como elemento clave en la revolución de la IA agéntica

Si hay algo en lo que coinciden todos los actores importantes que han acudido este año a Computex es que la revolución de la inteligencia artificial pasa por la inteligencia artificial agéntica, donde se aprovechen aplicaciones y servicios desde un punto central que orquestará nuestra incorporación a esta tecnología.

Ya sea desde la nube o con modelos locales que sean capaces de gestionar esa actividad desde nuestro PC o teléfono móvil. En este contexto, ARM ha lanzado al mercado su nueva plataforma AGI para datacenter, donde la CPU vuelve a ser clave para gestionar esos modelos de LLM ejecutados por GPU. Es un mensaje generalizado, pensabamos que la IA es cosa de GPUs pero lo cierto es que todos coinciden en que la gestion de esa información, proporcionada por los LLM, pasara por el computo generalista de la CPU

ARM AGI, que ya tiene a la vista dos generaciones posteriores en el roadmap de la marca, ofrece una densidad de núcleos sobresaliente, pudiendo montar dos CPU, refrigeradas por aire, en racks de 1U con una densidad de hasta 30 servidores por rack, para un total de más de 8.160 CPU, lo que nos indica que cada procesador cuenta con 136 núcleos. No es una cifra tan impactante si tenemos en cuenta que Xeon 6+ alcanza hasta 288 núcleos por procesador, en configuraciones de 2U. Con 20-23 servidores por rack, tenemos más de 11.000 unidades.

Los partners de ARM para esta nueva solución también ofrecerán racks refrigerados por agua, donde la densidad se multiplica de forma notable, alcanzando casi los 46.000 núcleos de proceso. Ambas soluciones prometen mejor consumo que la competencia, hasta un 60% de ahorro en energía, pero además vendrán acompañadas de memoria de ultra baja latencia y soluciones dedicadas como tarjetas de datos FuriosaAI y aceleradoras de inferencia local Positron AI.

En la conferencia también se aseguró el roadmap de las soluciones de sobremesa que han dado vida a nuevos procesadores como el NVIDIA RTX SPARK. Su CEO, Jensen Huang, estuvo presente, confirmando que ARM se centra también en el diseño de IP basado en chiplets, denominado ARM CSS, que permita escalar y personalizar las soluciones según las necesidades de sus clientes.

Fin del Artículo. ¡Cuéntanos algo en los Comentarios!